« Ouvrir tout grand l´âme endormie » : c’est une phrase de Gregorio Magno qui a donné le titre à l’édition 2024 du New York Encounter. Le Metropolitan Pavilion, Palais des Congrès du Chelsea, à deux pas du fameux Flatiron Building, s’animera à nouveau du 16 au 18 février pour une nouvelle édition de la manifestation organisée par la communauté de CL des États-Unis. « Qu’est-il en train d’arriver à notre humanité ? », se demandent les organisateurs dans l’abstract de présentation de ce thème : « Les motifs pour réfléchir sur cette question ne manquent pas. Des images quotidiennes de violence gratuite, une épidémie de suicides, le sentiment de suffoquer sous la pression d’idéologies contradictoires et de leur langage (dèjà à l’école), la menace potentielle de l’IA générative, le sentiment de paralysie face au futur, la souffrance et le mal privés de signification ou de rédemption, la fatigue générale, le mal-être, l’assoupissement et le manque de désir... Ces signes suggèrent que notre humanité est endormie. Qu’est-ce qui peut la réveiller ? ». Des débats, des expositions et des spectacles tenteront de donner un souffle à ses interrogations qui semblent être toujours plus urgentes, certainement aux États-Unis mais également sous toutes les latitudes. Un programme riche que vous pourrez trouver ici . Parmi les thèmes qui ont le plus été sujets à discussion ces derniers mois, et auxquels est consacré également le dernier numéro de Tracce de février, il y a celui de l’IA. L’Encounter lui a consacré une exposition intitulée “AI and I : Wonder, Create, Work” (l’IA et le moi : s’émerveiller, créer, travailler). Nous en avons parlé avec le curateur David Bolchini, président de la Luddy School of Informatics, Computing and Engineering de l’université de l’Indiana à Indianapolis.

Comment l’exposition est-elle née ?
À la fin de la dernière édition du New York Encounter, j’en parlais avec quelques collègues qui travaillent avec moi à l’université : ChatGPT était déjà utilisé par des collègues et des étudiants et le phénomène posait déjà de nombreuses questions. Nous avons pensé que l’Encounter était un lieu privilégié pour parler de ce thème en allant vraiment au fond de notre rapport avec ces nouveaux instruments technologiques. En discutant avec les organisateurs de l’Encounter et d’autres amis du secteur avec qui j’ai travaillé pour l’exposition, la grande question a surgi autour de laquelle nous avons tenté de construire le parcours de l’exposition.

Quelle question ?
Comme le disait Melvin Krantzberg, un historien de la technologie, la technologie n’est ni bonne ni mauvaise, mais elle n’est pas neutre non plus. Par sa nature elle ouvre, met en lumière de nouveaux horizons, mais elles en fait disparaître nécessairement d’autres, ou les met en discussion, souvent de façon marquante. Quand on a des instruments qui semblent répliquer le produit de l’activité humaine, ou du moins qui réussissent à faire ce que j’appelle un first draft of anything, un brouillon d’une chose quelqu’elle soit, et sont destinés à le faire toujours mieux, y a-t-il alors quelque chose d’irréductible dans la contribution de l’homme ? Y a-t-il quelque chose que la machine ne peut répliquer ? Si le produit de l’activité créative est reproductible, qu’apporte l’homme ?

L’exposition s’intitule “l’IA et le moi”
Oui, parce que, en allant au fond de la question sur ce qu’est la contribution irréductible de l’homme, on arrive à s’interroger sur ce qu’est le moi.

Comment avez-vous décidé de procéder ?
La première constatation est que l’on parle beaucoup de l’IA générative, mais peu de gens en ont l’expérience directe. Ainsi le premier pas de notre parcours est celui de faire essayer certains instruments qui sont à la disposition de tous aujourd’hui, en expérimentant des exemples d’utilisation selon leurs propres exigences, qu’il soit un professeur, un scientifique, un technicien… Puis nous tentons d’expliquer les modèles qui font fonctionner ces applications et qui sont essentiellement de nature statistique.

En quel sens ?
Cela signifie que le texte qui est généré comme réponse se forme sur base du calcul des probabilités selon lesquelles les paroles se retrouvent ensemble dans des textes complets déjà existants. ChatGPT ne sait pas ce qu’il est en train de répondre mais il sait que le texte qu’il fournit a une haute probabilité que cela ait du sens en relation avec la question qui lui a été posée. Et les résultats sont vraiment surprenants.

Mais maintenant on sait très bien que ChatGPT n’est pas fiable.
Mais il est intéressant de comprendre pourquoi il ne l’est pas. Il s’agit de systèmes quasiment imbattables pour générer du contenu sur n’importe quel argument, pour donner des idées sur tout, pour résoudre également des problèmes en quelques secondes, mais il est clair qu’il n’a aucun compréhension des informations qu’il nous donne. Au point que, dans certains cas, nous sommes face à des “hallucinations” : des réponses fausses, mais tellement plausibles qu’elles pourraient être vraies.

Par exemple ?
Il arrive que chatGPT fasse référence à des articles de journalistes, même fameux, mais qui n’ont jamais été écrits. Ou encore, du moins dans ses premières versions, il ne savait pas faire des raisonnements qui nous semblent simples. Si par exemple on lui demande : « Si un t-shirt trempé met une heure pour sécher, combien de temps faut-il pour en faire sécher trois ? ». Le système répond qu’il faut trois heures. Ou alors : « Mon chat était vivant à 10h. Il s’est senti mal à 16h. Le chat était-il vivant à 14h ? ». L’algorithme répond : « non ». Le système statistique ne fournit pas à la machine le bon sens ou, en tout cas, le sens de la réalité. Cela parce que l’intelligence, pour le dire avec Saint Thomas, est en relation étroite avec la vérité, qui est adaequatio rei et intellectus, c’est-à-dire correspondance entre l’esprit, ou le langage, et la réalité.

Donc la machine est stupide.
Mais au fond, ce sont des limites que l’on pourrait bien surmonter dans des versions plus sophistiquées de ces instruments. Il y a des questions encore plus profondes. Dans l’exposition, nous montrons l’exemple de Vauhini Vara, qui est l’une des premières écrivaines professionnelles à avoir expérimenté l’IA générative dans le processus de création d’un roman. Dans un article sur Wired, elle a expliqué qu’elle désirait depuis longtemps écrire un livre sur ce qu’elle avait expérimenté avec la mort de sa sœur. Mais elle n’y parvenait pas. Elle l’a fait avec l’aide de l’IA et beaucoup de personnes se sont retrouvées dans la description de l’expérience de la douleur. Cependant Vara ajoute : « Mais moi je sais que ce qui est écrit dans le livre ne correspond pas à ce que j’ai vécu ». Elle ajoute encore : « Écrire signifie communiquer une expression possible d’une conscience particulière, une certaine expérience du
monde, qui est unique. Donc ce que je crée ne dépend pas seulement du raffinement des paroles du texte mais c’est aussi une tentative d’éclaircir ce qu’est le monde du point de vue à partir duquel je l’observe. Et cela n’a rien à voir avec la méthode statistique utilisée par l’IA pour générer des textes. Il manque une “cohérence” qui dérive d’une relation intime, non reproductible, avec la réalité.

C’est cette relation avec la réalité qui nous distingue de la machine ?
Le grand linguiste Noam Chomsky a écrit un très bel article au début de l’année passée, dans lequel il disait, en synthèse, que chaque acte créateur de l’homme, par définition, a en soi un élément de moralité. C’est-à-dire la créativité implique le désir de donner une contribution au monde. C’est la tentative, comme le disait Steve Jobs, to make a dent in the Universe, d’entailler le mystère.

LIS AUSSI : Des intelligences diverses

Et il n’est pas possible de faire entrer le mystère dans une data base…
Comme nous l’avons expliqué dans l’exposition, il y a un très beau dialogue de Platon dans lequel Socrate et Phèdre discutent du rapport entre la vie et l’expression “technique” ou artistique de la vie, qui peut être l’écriture ou la peinture. Les œuvres issues des mains de l’homme, peut-on lire à un certain moment dans cet extrait, semblent avoir des éléments de vie et semblent nous parler. Mais si on tente d’interroger ces oeuvres artificielles, elles ne te répondent pas. Socrate disait : la production artistique est seulement une image changeante d’une âme au travail. Alors la question est, en revenant à aujourd’hui et au rapport avec les produits de la technologie contemporaine, que décidons-nous de déléguer à ces images.